Sau cuộc chinh phục của Triệu Đà, toàn bộ lãnh thổ miền Bắc Việt Nam hiện nay trở thành một phần của Nam Việt. Tuy nhiên, không có bất kì ghi chép nào về hành chính cũng như hình thái xã hội của khu vực này, mãi đến khi quân đội nhà Hán tiêu diệt Nam Việt, và thiết lập nên Giao Chỉ quận. Thời kì này được sử sách Việt Nam hiện đại gọi là Bắc thuộc lần thứ nhất.

Nhà Hán cho Thạch Đái làm Thái thú 9 quận. Chế độ nhà Hán lấy châu lãnh quận, trừ hai quận Châu Nhai, Đạm Nhĩ đều ở giữa biển, còn 7 quận thuộc về Giao Châu, Đái làm châu Thái thú. Thời Tây Hán, trị sở của Thái Thú đặt tại Long Biên.

Năm 544, sau khi đánh bại quân nhà Lương, Lý Bí xưng là Hoàng đế và đặt tên nước là Vạn Xuân, đóng đô ở khu vực này.

Năm 602, sau khi nhà Tùy tiêu diệt nước Vạn Xuân, lãnh thổ bị sáp nhập vào Dương Châu của Nhà Tùy.

Năm 622, sau khi nhà Đường lên thay nhà Tùy khu vực này thuộc về phủ Giao Châu của nhà Đường.